L’autorégulation volontaire des entreprises qui développent l’intelligence artificielle (IA) de pointe est « très loin d’être suffisante » pour répondre aux préjudices existants et empêcher des modèles autonomes avancés de contourner les garde-fous humains, a écrit lundi le Haut-Commissaire des Nations Unies aux droits de l’homme, Volker Türk.

« La course actuelle vers une IA toujours plus puissante marque un changement de cap qui accroît les risques existentiels pour tous les aspects de nos vies », a-t-il écrit dans une lettre ouverte.

Le message du Haut-Commissaire intervient six jours après la démission d’un ancien chercheur d’Anthropic – l’entreprise à l’origine du chatbot Claude – qui a averti que « les personnes qui construisent l’IA pensent sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie ».

Plusieurs incidents récents, notamment la démission de Jacob Coxon et les annonces d’OpenAI et d’Anthropic selon lesquelles leurs modèles étaient sortis de leurs environnements de test, ont intensifié le débat mondial sur le niveau de réglementation que les gouvernements devraient imposer à cette technologie.

Aucun pays ne peut agir seul

M. Türk a appelé les pays qui accueillent des entreprises développant des IA de pointe à renforcer la réglementation, notamment en exigeant la déclaration des incidents graves, la vérification des capacités des systèmes d’IA et l’obligation de procéder à une diligence raisonnable en matière de droits humains.

Il a également exhorté les États membres à travailler ensemble par l’intermédiaire des institutions multilatérales afin de bâtir un consensus mondial sur la gouvernance de l’IA et de protéger les droits humains face aux risques liés à cette technologie.

« Aucun pays ne peut gouverner cette technologie seul », a écrit M. Türk. « Aucune entreprise ne devrait pouvoir décider seule quels risques le monde doit accepter. Personne ne devrait être obligé de renoncer à ses droits humains en échange de promesses de progrès technologique. »

« Ralentir la frontière »

Le PDG d’Anthropic, Dario Amodei, a publié samedi un essai intitulé We Must Pace the Frontier, plaidant pour la poursuite du développement de l’IA tout en prenant le temps nécessaire pour mettre en place des garde-fous suffisants afin d’éviter que des « systèmes agentiques » ne deviennent incontrôlables.

Les dirigeants d’OpenAI, Google et xAI ont tous exprimé leur accord avec la proposition de M. Amodei, qui prévoit notamment des évaluations des modèles d’IA par des tiers, une meilleure coordination entre les entreprises du secteur et une coopération accrue entre gouvernements.

M. Türk a salué en particulier cette proposition et, plus largement, l’autorégulation de l’industrie, tout en soulignant que les gouvernements doivent eux aussi agir de toute urgence pour réglementer l’IA.

Pas de « course vers le moins-disant »

« La poignée d’États qui accueillent les principales entreprises d’IA de pointe ont l’obligation particulière d’exiger de ces entreprises qu’elles agissent de manière responsable et de les tenir pour responsables si elles ne le font pas », a écrit le Haut-Commissaire.

Identifiant des entreprises chinoises et américaines comme étant « à l’avant-garde » de l’IA de pointe, M. Türk a reconnu la nécessité de normes internationales et d’un alignement des approches afin de réduire les incitations à une course aux armements dans l’IA entre les deux pays.

« Ils doivent aligner leurs approches afin que la concurrence entre juridictions n’encourage pas une course vers le moins-disant », a-t-il écrit.

Selon M. Türk, les risques et la gouvernance de l’IA doivent être jugés avant tout à l’aune de leur impact sur les droits humains.

Au-delà de la nécessité d’éviter que l’IA ne détruise l’humanité, la sécurité de l’IA signifie protéger activement les personnes, les communautés, les institutions et les générations futures.

Les personnes avant le profit

M. Türk a rejeté l’argument de l’industrie selon lequel les mesures de sécurité ralentiraient l’innovation, affirmant que personne ne devrait être contraint de sacrifier ses droits humains au nom du progrès.

À l’heure actuelle, a-t-il indiqué, les droits à la vie, à l’alimentation, à la vie privée, à la santé et à la sécurité sont tous menacés par un développement incontrôlé de l’IA.

Le fait que l’IA continue d’alimenter la désinformation et une automatisation inégalitaire, ou qu’elle serve plutôt à lutter contre la crise climatique et à guérir des maladies, dépendra de la manière dont les entreprises et les gouvernements répondront à ce « moment charnière », selon M. Türk.

« La génération qui entre aujourd’hui dans l’âge adulte héritera des conséquences des décisions prises sur cette question sans avoir eu son mot à dire », a-t-il écrit. « Nous lui devons de veiller à ce que ces décisions soient prises ouvertement, dans le respect de ses droits et avec l’humilité qu’exige l’ampleur de cette entreprise. »